- энтропия распределения вероятностей
-
энтропия распределения вероятностей
Мера неопределенности распределения вероятностей дискретной случайной величины; ее выражение имеет вид
где Xn = (X1, …, Хn) — n-мерная случайная величина, Р(хn) — вероятность того, что эта величина примет значение хn = (x1, …, xn); суммирование ведется по всему множеству значений хn.
Примечание. В частном случае одномерного распределения (n=1) энтропия распределения имеет вид
.
[Сборник рекомендуемых терминов. Выпуск 94. Теория передачи информации. Академия наук СССР. Комитет технической терминологии. 1979 г.]
Тематики
- теория передачи информации
EN
- probability-distribution entropy
Справочник технического переводчика. – Интент. 2009-2013.
дифференциальная энтропия распределения вероятностей — Мера относительной неопределенности распределения вероятностей непрерывной случайной величины; ее выражение имеет вид где Xn = (X1, …, Хn) — непрерывная n мерная случайная величина, w(хn)=w (x1, …, xn) — плотность… … Справочник технического переводчика
энтропия условного распределения вероятностей — Мера неопределенности условного распределения вероятностей дискретной случайной величины при условии, что задано значение другой дискретной случайной величины, усредненная по значениям последней; ее выражение имеет вид где P (xn, ym)=P (x1, ...,… … Справочник технического переводчика
дифференциальная энтропия условного распределения вероятностей — Мера неопределенности условного распределения вероятностей непрерывной случайной величины при условии, что задано значение другой непрерывной случайной величины, усредненная по значениям последней; ее выражение имеет вид где w(xn, ym)=w(x1, ...,… … Справочник технического переводчика
энтропия случайной величины — Энтропия распределения вероятностей случайной величины. [Сборник рекомендуемых терминов. Выпуск 94. Теория передачи информации. Академия наук СССР. Комитет технической терминологии. 1979 г.] Тематики теория передачи информации EN random variable… … Справочник технического переводчика
ЭНТРОПИЯ — (от греч. entropia поворот, превращение), понятие, впервые введённое в термодинамике для определения меры необратимого рассеяния энергии. Э. широко применяется и в др. областях науки: в статистической физике как мера вероятности осуществления к.… … Физическая энциклопедия
Энтропия (теория информации) — Энтропия (информационная) мера хаотичности информации, неопределённость появления какого либо символа первичного алфавита. При отсутствии информационных потерь численно равна количеству информации на символ передаваемого сообщения. Например, в… … Википедия
Энтропия Реньи — В теории информации, энтропия Реньи, обобщение энтропии Шеннона, является одним из семейства функционалов для количественного разнообразия неопределенности или случайности системы. Она названа в честь Альфреда Реньи. Энтропия Реньи порядка α, где … Википедия
Энтропия — (от греч. entropía поворот, превращение) понятие, впервые введенное в термодинамике (См. Термодинамика) для определения меры необратимого рассеяния энергии. Э. широко применяется и в других областях науки: в статистической физике (См.… … Большая советская энциклопедия
дифференциальная энтропия случайной величины — Дифференциальная энтропия распределения вероятностей непрерывной случайной величины. [Сборник рекомендуемых терминов. Выпуск 94. Теория передачи информации. Академия наук СССР. Комитет технической терминологии. 1979 г.] Тематики теория передачи… … Справочник технического переводчика
Распределения Эрланга — Гамма распределение Плотность вероятности Функция распределения Параметры … Википедия